OpenAI ha presentato giovedì i suoi ultimi modelli o1, che offrono progressi significativi nel campo del pensiero logico, della risoluzione dei problemi e della risposta a domande scientifiche. I modelli sono considerati un passo decisivo verso lo sviluppo di un'intelligenza artificiale generale (AGI) – macchine che raggiungono una capacità di pensiero umano.
Nel sistema di accompagnamento che descrive il funzionamento dell'IA, OpenAI riconosce tuttavia che i nuovi modelli hanno anche aumentato "significativamente" il rischio di abuso della tecnologia, in particolare in relazione alla produzione di armi biologiche. Per la prima volta, l'azienda ha assegnato ai suoi modelli una "classificazione di rischio medio" per quanto riguarda le armi chimiche, biologiche, radiologiche e nucleari (CBRN). Ciò significa che la tecnologia ha migliorato notevolmente le capacità degli esperti nello sviluppo di armi biologiche.
Software avanzata di IA, in grado di effettuare ragionamenti logici passo dopo passo, comporta un rischio maggiore di abuso secondo gli esperti. Yoshua Bengio, uno dei massimi ricercatori di IA al mondo, ha sottolineato l'urgenza di regolamentazioni legali per minimizzare questi rischi. Ha fatto riferimento a una proposta di legge in California che richiederebbe alle aziende di adottare misure di sicurezza per prevenire l'uso dell'IA nello sviluppo di armi biologiche. "Più la IA si avvicina all'AGI, maggiori diventano i rischi in assenza di adeguate misure di protezione," ha avvertito Bengio.
Aziende tecnologiche come Google, Meta e Anthropic stanno attualmente lavorando allo sviluppo di sistemi di IA avanzati. Questi agenti di IA potrebbero aiutare le persone a svolgere compiti e offrire anche potenziali opportunità di business redditizie per le imprese che affrontano i notevoli costi dello sviluppo dell'IA.
Mira Murati, Chief Technology Officer di OpenAI, ha dichiarato al Financial Times che l'azienda sta procedendo con particolare cautela nell'introduzione dei modelli o1, poiché questi possiedono capacità estese. Tuttavia, i modelli saranno resi accessibili tramite ChatGPT per gli abbonati a pagamento e tramite un'API per i programmatori. Murati ha aggiunto che i modelli sono stati sottoposti a rigorosi test di sicurezza e hanno mostrato notevoli miglioramenti in termini di sicurezza rispetto alle versioni precedenti.
